GAE → Stackdriver Logging → BigQuery
神か??
アプリケーションログを構造化して出力する
GAE で Stackdriver Logging にログを拾わせてトレースしたい
出力するログの構造
構造がバラバラだと BigQuery の table に移す段階でこまるので
type: hoge はこういう構造、というスキーマを決めておく
構造の中に JSON いれてバラして BigQuery に入れれるかは未調査
標準 SQL の JSON 関数  |  BigQuery  |  Google Cloud 関数はある, テーブル作るまで Export の仕事だから、それをまた抽出してテーブルにする必要があるかな?
Stackdriver Logging → BigQuery へ切り出した
BigQuery でフィルタ
どうやら daily でテーブル(BQ用語)が作られるっぽい
BQ でクエリできるので、抽出して上位を集めたりきっとシュッとできる
テーブル名に * 使えるので、今月のテーブルまとめて集計、とかもできる
ログの定期集計
Cloud Scheduler で PubSub へトピックを Pub
Sub していた Cloud Function が BQ へクエリを投げる
...という想定
ドキュメントリンク集
ログのエクスポートの概要  |  Stackdriver Logging  |  Google Cloud
高度なログフィルタ  |  Stackdriver Logging  |  Google Cloud どういう式かけるか
高度なフィルタ ライブラリ  |  Stackdriver Logging  |  Google Cloud 例がいろいろ書いてある
エクスポートされたログの BigQuery スキーマ  |  Stackdriver Logging  |  Google Cloud JSON 構造を BQ へ移した時どうなるか
割り当てと上限  |  Stackdriver Logging  |  Google Cloud Stackdriver のログ保管期限
#GoogleCloud #BigQuery